Lúc nhỏ được mẹ là Lý thị ráng sức dạy dỗ, miệt mài đọc sách, chăm chỉ học tập, đến năm Quang Tự thứ 20 (năm 1886) ông thi đỗ Tiến sĩ, được trao chức Hàn Lâm Viện Thứ cát sĩ, Tản quán bổ nhiệm việc biên tu, làm quan tới chức Điển Lễ Viện học sĩ, sau khi chính phủ Dân Quốc thành lập, vì lòng còn tưởng nhớ đến cựu triều nên từ quan ẩn cư, ở nhà ông ra sức biên soạn và viết bộ Tân Nguyên sử, bộ sử là một công trình lớn được ông sưu tập và tổng hợp từ các nhà sử học trước trong khoảng thời gian 500 năm sau khi bộ Nguyên sử ra đời, tác phẩm có bổ sung thêm những nội dung mới, sửa đổi những sai lầm, thiếu sót khác nên được giới học thuật đánh giá rất cao, vì thế Đại học Đế quốc Tokyo của Nhật Bản đã trao tặng Kha Thiệu Văn danh hiệu Tiến sĩ danh dự, năm 1919, Đại Tổng thống Từ Thế Xương ra lệnh xếp bộ sử vào dạng chính sử, góp thêm vào Nhị thập tứ sử thành Nhị thập ngũ sử, tuy nhiên theo ý kiến của đa số giới học thuật thì bộ sử này không được liệt vào hàng chính sử.

Ngoài ra vào năm 1914, Viên Thế Khải cho thiết lập Thanh sử quán, bổ nhiệm Triệu Nhĩ Tốn làm Quán trưởng, Kha Thiệu Văn còn tham gia vào công việc biên soạn Thanh sử cảo, chỉnh sửa những phần trong Thanh sử cảo như Nho Lâm truyện, Văn Uyển truyện, Trù Nhân truyện, viết thêm một người trong Thiên Văn chí, bản thảo đầu tiên của Thanh sử cảo hoàn thành năm 1920, năm 1926 bắt đầu công việc hiệu đính, đến năm 1928 thì xuất bản tổng cộng hơn 1100 trang, đến khi về già vào năm 1925, ông được chính phủ Quốc Dân bổ nhiệm làm thành viên phía Trung Quốc trong dự án sự nghiệp Văn hóa phương Đông thuộc cộng đồng Trung Nhật đã tác động tới mối quan hệ với Nhật Bản, đồng thời được bầu làm Tổng tài trong Tổng Ủy ban Sự nghiệp Văn hóa phương Đông, năm 1928, vì lý do quân đội Nhật Bản phát động sự kiện Tế Nam, ông từ chức và trình ý kháng nghị lên các thành viên phía Trung Quốc, năm 1933 lâm bệnh mất tại nhà riêng ở Sơn Đông.